Năm 1995, Mauro Pezzente với bạn gái khi đó chuyển tới một căn gác xếp tại Mile End của Montreal.[4] Pezzente dùng căn phòng làm nơi tụ họp, gọi nó là Gallery Quiva. Năm 1996, khói từ ga ra của người thợ máy bên dưới gác xếp buộc họ phải rời đi.[4] Không lâu sau, Efrim Menuck thành lập Hotel2Tango. Tại đây, năm 1997, bản thu âm gốc của F♯ A♯ ∞ được thực hiện.[5] Vào thời gian này, ban nhạc đạt tới con số 15 thành viên. Trước khi thu album, họ giảm số thành viên xuống còn 10.[6]

Sau khi ấn bản đầu tiên của F♯ A♯ ∞ được phát hành, ban nhạc bắt đầu lưu diễn tại Hoa Kỳ. Họ gửi một bản album tới hãng đĩa Kranky (trụ sở tại Chicago). Kranky có ấn tượng với đĩa nhạc, và đề nghị tái phát hành album bằng CD.[7] Ban nhạc nhanh chóng trở lại phòng thu để thu âm lại. F♯ A♯ ∞ được bổ sung, loại bỏ và tái tổ chức các nhạc phẩm, phiên bản này gồm ba track và dài hơn một giờ.